Зміст Вступ 4 1. Базові поняття штучного нейрона 6 1.1 Штучні нейронні мережі 6 1.2 Біологічний нейрон 7 1.3 Штучний нейрон 8 1.4 Властивості побудови нейронних мереж 8 1.5Активаційна функція 10 1.6 Одношарові штучні нейронні мережі 12 1.7 Багатошарові штучні нейронні мережі 13 1.8 Нелінійна активаційна функція 14 2. Навчання штучних нейронних мереж 15 2.1 Мета навчання 15 2.2 Навчання з учителем 15 2.3 Навчання без учителя 15 2.4 Алгоритми навчання 16 2.5 Алгоритм зворотного розповсюдження помилки 17 Застосування програмних рішень 21 Приклади найбільш вдалих розробок 25 Висновки 27 Список використаної літератури 28 Додатки 29  Вступ Штучні нейронні мережі застосовуються в різних галузях науки: починаючи від систем розпізнавання мови до розпізнавання вторинної структури білка, класифікації різних видів раку і генної інженерії. Однак, як вони працюють і які в них переваги? Коли мова йде про завдання, відмінних від обробки великих масивів інформації, людський мозок володіє великою перевагою в порівнянні з комп'ютером. Людина може розпізнавати обличчя, навіть якщо в приміщенні буде багато сторонніх об'єктів і погане освітлення. Ми легко розуміємо незнайомців навіть коли знаходимося в шумному приміщенні. Але, незважаючи на роки досліджень, комп'ютери все ще далекі від виконання подібних завдань на високому рівні. Людський мозок дивно надійний: у порівнянні з комп'ютером він не перестане працювати тільки тому, що кілька клітин загинуло, в той час як комп'ютер зазвичай не витримує жодних поломок в CPU. Але найдивовижнішою особливістю людського мозку є те, що він може вчитися. Не треба ніякого програмного забезпечення і ніяких оновлень, якщо ми хочемо навчитися їздити на велосипеді. Розрахунки головного мозку виробляються за допомогою тісно взаємопов'язаних нейронних мереж, які передають інформацію, відсилаючи електричні імпульси через нейронні провідники. У 1943 році, компанія McCulloch and Pitts змоделювала штучний нейрон, як перемикач, який одержує інформацію від інших нейронів і в залежності від загального входу, або приводиться в дію, або залишається неактивним. У вузлі ШНМ приходящі сигнали множаться з відповідною вагою синапсів (див. рис. 1) і підсумовуються. Ці коефіцієнти можуть бути як позитивними (збуджуючими), так і негативними (гальмуючими). У 1960 роках було доведено, що такі нейронні моделі володіють властивостями, подібними з мозком: вони можуть виконувати складні операції розпізнавання образів, і вони можуть функціонувати, навіть якщо деякі зв'язки між нейронами зруйновані. Демонстрація персептона Розенблатта показала, що прості мережі з таких нейронів можуть навчатися на прикладах, відомих у певних областях. Пізніше, Мінський та Паперт довели, що прості пресептони можуть вирішувати тільки дуже вузький клас лінійно сепарабельних(скінченних чи зліченних) завдань, після чого активність вивчення ШНМ зменшилася. Тим не менш, метод зворотного поширення помилки навчання, який може полегшити завдання навчання складних нейронних мереж на прикладах, показав, що ці проблеми можуть бути і не сепарабельні. Програма NETtalk застосовувала штучні нейронні мережі для машинного читання тексту і була першим широковідомим додатком. У біології, точно такий же тип мережі був застосований для прогнозування вторинної структури білка. Справді, деякі з кращих дослідників досі користуються тим же методом. З цього почалася інша хвиля, яка викликала інтерес до досліджень ШНМ і підняла галас навколо магічного навчання мислячих машин. Деякі з найбільш важливих ранніх відкриттів наведені в джерелі[]. ШНМ можуть бути створені шляхом імітації моделі мереж нейронів на комп'ютері. Використовуючи алгоритми, які імітують процеси реальних нейронів, ми можемо змусити мережу «вчитися», що допомагає вирішити безліч різних проблем.  Базові поняття штучного нейрона Штучні нейронні мережі отримали широке поширення за останні 20 років і дозволили вирішувати складні завдання обробки даних, часто значно перевершуючи точність інших методів статистики і шту...